万字长文盘点 2024，展望 2025 2024 年，大语言模型（LLM）迎来了翻天覆地的变化。让我们一起回顾过去一年中这个领域的重大发现，梳理其中的关键主题和标志性时刻。
在今年的 NeurIPS 2024 大会上，硅谷最著名的 VC 之一 Conviction Capital 创始人 Sarah Guo 和合伙人 Pranav Reddy 做了一场 “AI 创业公司的现状（The State of AI Startups）”的分享。
在过去一年中，基座大模型技术的快速迭代推动了 AI 搜索的演进，主要体现在以下几个方面：
2024 年初，我们明显感受到 GenAI（生成式人工智能）仍将是技术发展和风险投资的重点方向。在顶尖的 AI 实验室算力需求的推动下，模型层继续吸引了最多的资本投入。代码辅助、营销和客户支持等场景的落地正在加速，同时随着巨头们加入这场军备竞赛，全球资本支出也在增加。
Anthropic 的崛起是2024年全球 AI 产业最受瞩目的现象之一，它是 OpenAI 强有力的挑战者，令很多厌倦了 OpenAI 式虚张声势和夸大其词的 AI 研究者和开发者耳目一新。
AI 需要的钱，可比造车要多多了。
最近 AI 社区很多人都在讨论 Scaling Law 是否撞墙的问题。其中，一个支持 Scaling Law 撞墙论的理由是 AI 几乎已经快要耗尽已有的高质量数据，比如有一项研究就预计，如果 LLM 保持现在的发展势头，到 2028 年左右，已有的数据储量将被全部利用完。
2024 年最受欢迎的 AI 产品，当属 NotebookLM。从九月开始就一路爆红，一直到年末热度都居高不下。 12 月时，NotebookLM 更新了新功能：加入。用户也可以成为播客节目里的一环啦。
AI Agent 是我们紧密追踪的范式变化，Langchain 的一系列文章对理解 Agent 的发展趋势很有帮助。在本篇编译中，第一部分是 Langchain 团队发布的 State of AI Agent 报告。
过去一段时间，“预训练终结”成为了 AI 领域最热烈的讨论之一。OpenAI的GPT系列模型此前大踏步的前进，预训练是核心推动力。而前 OpenAI 首席科学家 Ilya Sutskever、预训练和scaling law（规模定律）最忠实的倡导者，却宣称预训练要终结了、scaling law要失效。由此，引发了大量争议。
